Ý tưởng tạo ra một bảo tàng mới lớn ở Warsaw dành riêng cho lịch sử của người Do Thái Ba Lan được khởi xướng vào năm 1995 bởi Hiệp hội của Viện lịch sử Do Thái Ba Lan.[7] Trong cùng năm đó, Hội đồng thành phố Warsaw đã giao đất cho chủ ý này ở Muranów, khu Do Thái thời tiền chiến của Warsaw và khu Warsaw Ghetto cũ, đối mặt với Đài tưởng niệm các anh hùng Warsaw Ghetto. Năm 2005, Hiệp hội Viện lịch sử Do Thái Ba Lan đã thiết lập quan hệ đối tác công-tư với Bộ Văn hóa và Di sản quốc gia Ba Lan và Thành phố Warsaw. Giám đốc đầu tiên của Bảo tàng là Jerzy Halbersztadt. Vào tháng 9 năm 2006, một chiếc lều được thiết kế đặc biệt có tên Ohel (từ tiếng Do Thái có nghĩa là lều) đã được dựng lên để trưng bày và các sự kiện tại vị trí tương lai của bảo tàng.[7]

Một cuộc thi kiến trúc quốc tế để thiết kế tòa nhà đã được phát động vào năm 2005, được hỗ trợ bởi một khoản trợ cấp từ Bộ Văn hóa và Di sản Quốc gia. Vào ngày 30 tháng 6 năm 2005, người chiến thắng đã được ban giám khảo công bố là đội của hai kiến trúc sư người Phần Lan, Rainer Mahlamäki và Ilmari Lahdelma.[8] Vào ngày 30 tháng 6 năm 2009, việc xây dựng tòa nhà đã chính thức được khánh thành. Dự án đã hoàn thành trong 33 tháng với chi phí 150 triệu zloty do Bộ và Thành phố phân bổ, [lower-alpha 1] với tổng chi phí là 320 triệu zloty.[10][11] Nó được hỗ trợ tài chính bởi các quỹ hàng năm từ Bộ Văn hóa Ba Lan và Hội đồng thành phố Warsaw.[12]

Tòa nhà mở cửa và bảo tàng bắt đầu các chương trình văn hóa và giáo dục vào ngày 19 tháng 4 năm 2013, nhân dịp kỷ niệm 70 năm cuộc nổi dậy Warsaw Ghetto. Trong 18 tháng sau đó, hơn 180.000 du khách đã tham quan tòa nhà, tham quan các triển lãm tạm thời đầu tiên và tham gia các chương trình và sự kiện văn hóa và giáo dục, bao gồm chiếu phim, tranh luận, hội thảo, biểu diễn, hòa nhạc và diễn thuyết. Lễ khai mạc, với Triển lãm nòng cốt đã hoàn thành, diễn ra vào ngày 28 tháng 10 năm 2014.[13] Các tài liệu triển lãm nòng cốt và kỷ niệm lịch sử hàng ngàn năm của cộng đồng Do Thái ở Ba Lan đã bị tàn sát bởi cuộc thảm sát Holocaust.[4][5]

Năm 2016, bảo tàng đã giành giải thưởng Bảo tàng của năm tại Châu Âu từ Diễn đàn Bảo tàng Châu Âu.[14]